Dưới thời nhà Nguyễn, địa bàn phường Linh Tây hiện nay gần tương ứng với làng Linh Chiểu Tây thuộc tổng An Điền, huyện Ngãi An, phủ Phước Long, tỉnh Biên Hòa.

Đến thời Pháp thuộc, làng Linh Chiểu Tây hợp nhất với các làng Linh Chiểu Đông và Bình Quới Đông thành làng Linh Đông Xã thuộc quận Thủ Đức, tỉnh Gia Định. Làng Linh Đông Xã là nơi đặt quận lỵ Thủ Đức.

Sau năm 1956, các làng gọi là xã, Linh Đông Xã là một xã thuộc quận Thủ Đức.

Sau năm 1975, xã Linh Đông Xã giải thể để thành lập thị trấn Thủ Đức - thị trấn huyện lỵ huyện Thủ Đức, thành phố Sài Gòn - Gia Định (tên gọi khi đó của Thành phố Hồ Chí Minh ngày nay).

Ngày 6 tháng 1 năm 1997, Chính phủ ban hành Nghị định số 03-CP[1]. Theo đó:

• Thành lập quận Thủ Đức trên cơ sở toàn bộ diện tích và dân số của thị trấn Thủ Đức và 7 xã: Hiệp Bình Chánh, Hiệp Bình Phước, Linh Đông, Linh Trung, Linh Xuân, Tam Bình, Tam Phú; một phần diện tích và dân số của các xã Hiệp Phú, Tân Phú và Phước Long thuộc huyện Thủ Đức cũ
• Thành lập phường Linh Tây thuộc quận Thủ Đức trên cơ sở 61 ha diện tích tự nhiên và 10.158 người của thị trấn Thủ Đức; 80 ha diện tích tự nhiên và 1.680 người của xã Linh Trung.

Sau khi thành lập, phường có 141 ha diện tích tự nhiên và 11.838 người.

Ngày 9 tháng 12 năm 2020, Ủy ban thường vụ Quốc hội ban hành Nghị quyết 1111/NQ-UBTVQH14 về việc thành lập thành phố Thủ Đức trên cơ sở sáp nhập toàn bộ diện tích và dân số của Quận 2, Quận 9 và quận Thủ Đức[4], phường Linh Tây thuộc thành phố Thủ Đức như hiện nay.